Trạm xe lửa đầu tiên tại Sài Gòn năm 1881đoàn tàu TN5 trên tuyến Bắc Nam , khu gian Văn Điển-Thường Tín

Từ năm 1881, Pháp đã bắt đầu xây dựng tuyến đường sắt tại Việt Nam. Việc xây dựng con đường sắt Trans-Indochinois (Xuyên Đông Dương) hoàn thành ngày 1 tháng 10 năm 1936 thời Pháp thuộc.[1] Ngày hôm sau, 2 tháng 10 là ngày chính thức khánh thành tuyến đường sắt Bắc Nam (từ Hà Nội đến Sài Gòn với chiều dài dài 1.730 km (sau năm 1975 ga Sài Gòn dời về ga Hòa Hưng và ga này đổi tên ga thành ga Sài Gòn nên chiều dài chỉ còn 1.726 km).[2]

Những toa xe dùng lúc bấy giờ là voitures-couchettes, có toa voiture-restaurant chạy máy lạnh. Đầu máy thường là máy Mikado.[3]

1955-1975

Lễ Khánh thành ngày tái lập đường xe lửa Xuyên Việt (Sài Gòn - Đông Hà) năm 1959

Sau Chiến tranh thế giới thứ hai rồi Chiến tranh Việt - Pháp bùng nổ thì đoạn đường phía nam vĩ tuyến 17 vào thập niên 1950, khoảng 1/3 bị hư hại nặng, không sử dụng được.[4] Còn lại là hai khúc từ Đông Hà vào Đà Nẵng và từ Sài Gòn ra Ninh Hòa. Việc tái thiết kéo dài bốn năm dưới thời Đệ Nhất Cộng hòa Việt Nam cho đến năm 1959 thì xe lửa mới chạy được suốt từ Sài Gòn ra Đông Hà, lần đầu tiên sau 12 năm gián đoạn.[5] Số liệu năm 1959 cho biết hệ thống đường sắt chuyên chở 2.658.000 lượt khách và 440.000 tấn hàng hóa. Số lượng sau đó giảm nhiều vì tình hình an ninh.[6]

Tính đến năm 1971-1972 thời Đệ Nhị Cộng hòa Việt Nam thì tổng cộng có 1.240 km đường sắt nhưng chỉ có 57% sử dụng được. Tổng lượng hành khách và hàng hóa chuyên chở bằng đường sắt giảm nhiều so với thập niên trước nhưng cũng tăng dần:[7]

Năm	Tổng lượng hàng hóa vận tải (tấn)	Số lượng hành khách (triệu)
1968	400.000	0,73
1969	530.000	1,75
1970	720.000	2,4

Sở Hỏa xa Việt Nam (tiếng Pháp: Regie des Chemins de fer du Viet-nam) thuộc Bộ giao thông và bưu điện chính quyền Việt Nam Cộng Hòa điều hành các tuyến tàu và tiếp tục dùng đầu máy Mikado của Nhật Bản (KB87), tăng thêm máy của General Electric chạy bằng diesel.[3]

Sau năm 1976

Đường sắt Bắc Nam đoạn Phú YênCầu Ninh Bình bắc qua sông Đáy trên tuyến đường sắt Bắc - Nam

Ngày 31 tháng 12 năm 1976, hoàn thành sửa lại do bị chiến tranh tàn phá.

Tồn tại: hiện tuyến đường sắt có tốc độ lưu thông thấp nhất thế giới do chạy qua nhiều đô thị đông dân cư, qua nhiều đèo có khúc cua gấp, giao cắt với đường bộ nhiều, đường đơn, đặc biệt là khổ đường hẹp (1 m).

Ngày 7 tháng 1 năm 2002, Thủ tướng Chính phủ Việt nam Phan Văn Khải đã phê duyệt " Quy hoạch tổng thể phát triển ngành giao thông vận tải đường sắt Việt Nam đến năm 2020 ".

Cầu đường sắt Chiêm Sơn, Quảng Nam.